简介业务流程是多个行业不可或缺的一部分,包括政府、保险、银行和医疗保健。此类流程的示例包括贷款发放、语音管理、汽车保险索赔处理、处理处方药订单和患者病例管理(Van Der Aalst 等人,2011 年)。预计到 2023 年,业务流程管理 (BPM) 行业规模将接近 160 亿美元(Marketwatch,2019 年)。人工智能的最新进展为注入人工智能来预测结果(Breuker 等人,2016 年)、降低成本或提供更好的客户体验(Rao 和 Verweij,2017 年)以及推荐决策(Mannhardt 等人,2016 年)提供了绝佳机会。最近,深度学习模型已用于进行结果和完成时间预测(Tax 等人,2017 年;Evermann、Rehse 和 Fettke,2017 年)。不幸的是,这些创新很少被企业应用和采用(Daugherty and Wilson 2018)。阻碍采用人工智能业务流程应用程序的一个罪魁祸首是解释模型决策的能力。例如,考虑抵押贷款申请。在美国,联邦贸易委员会的指导方针规定,如果消费者因人工智能而被拒绝提供有价值的东西(即贷款),他们有权得到解释。此外,他们还指出,在为消费者分配风险评分时,应按重要性顺序披露影响评分的关键特征(Smith 2020)。在信用评分领域,这